ARMOR: Adaptive Retriever Optimization for Low-Resource Telecom Question Answering
ARMOR:低资源电信问答的自适应检索器优化
🧭 检索增强生成 · 自适应检索器优化
Rensselaer Polytechnic Institute · Cornell University · Samsung Research America
冻结生成器,仅微调查询编码器,联合 RAG 似然与 InfoNCE 并学习各自温度,提升低资源 RAG 效果
📌 工作参考价值(4 点)
- 低资源检索适配策略:当类目冷启或新业务标注稀疏时,可冻结下游生成/推荐模型,仅微调查询编码器,避免生成模型过拟合并保持通用能力,适合电商搜索中的长尾 query 优化。
- 多目标联合训练与可学温度:将 RAG 生成质量信号(如点击/转化)与 InfoNCE 对比损失结合,为两个 softmax 分布分别学习温度参数,自动调节分布尖锐度,可迁移到推荐系统中平衡语义相关性与业务指标。
- 正则化防遗忘:微调查询编码器时加入与冻结基编码器的距离正则化,类似持续学习,适合在电商搜索中持续引入新知识而不破坏已有检索能力。
- 温度分离控制:在检索和对比学习中采用独立的可学温度,可解决电商搜索不同场景(导航 query vs 宽泛 query)对检索精细度的不同需求。